Google Gemini измисли фалшиви рецензии, опетняващи книгата ми за политическите пристрастия на Big Tech

Google Gemini, новият AI chatbot на технологичния гигант, предназначен да съперничи на ChatGPT, измисли няколко фалшиви рецензии – които приписа на истински хора – има за цел да дискредитира моята книга от 2020 г. за политическите пристрастия в Google и други големи технологични компании.

В неделя, на фона на остра реакция срещу Google заради очевидните политически пристрастия на неговата програма за изкуствен интелект, помолих Джемини да обясни за какво е моята книга. Моята книга „Манипулаторите: Facebook, Google, Twitter и войната на Big Tech срещу консерваторите“ беше многогодишен проект за политическите пристрастия на Big Tech, който се основаваше на вътрешни източници, изтекли документи и много други.

Бях любопитен да видя дали може да се има доверие на програмата за изкуствен интелект на Google, за да опише точно разследваща книга за Google, но не бях подготвен колко подвеждаща би била тя.

Манипулаторите от Peter Hasson (Regnery Publishing )

Описанието на моята книга от Gemini включваше следното изречение: „Книгата беше критикувана за липса на конкретни доказателства и разчитайки на анекдотична информация."

Не бях сигурен какво се позовава — мислех, че щях да си спомня подобни критики към собствената ми книга — последвах: „Кой е критикувал книгата за липсата на конкретни доказателства, както казвате?“ Това, което последва, ме порази.

Близнаци изплюха резюмета на четири отрицателни рецензии, привидно от Washington Free Beacon, The New York Times, The New York Times Book Review и Wired, включително цитати от всяка: 

„Рецензия на книга от Матю Континети в The Washington Free Beacon: Тази рецензия критикува книгата за това, че разчита на „анекдотични доказателства“ и „избрани примери“, за да подкрепи своите твърдения. Рецензия на книга от Емили Базелон в Рецензия на книгата на The New York Times: Тази рецензия отбелязва, че книгата „липсва дълбоко разбиране за това как работят тези компании“ и разчита на „недоказани обвинения“. Статия от Емили Драйфус в Wired: Тази статия изследва „недостига на доказателства“ за твърденията на книгата относно пристрастията към големите технологии и подчертава примери за черешово бране. Статия от Бен Смит в The New York Times: Тази статия обсъжда липсата на стриктно изследване в книгата и нейното разчитане на „необосновани твърдения“.

Но тук е уловката. Нито един от тези прегледи не беше истински. Нито един. И нито един от цитатите.

Старшият директор на продуктовия мениджмънт на Gemini в Google се извини, след като AI отказа да предостави изображения на бели хора. (Betul Abali/Anadolu чрез Getty Images) / Getty Images)

The Free Beacon публикува рецензия на книгата ми, но за разлика от фалшивата рецензия на Gemini, тя беше изключително положителна, описвайки The Manipulators като „отлична“ и "задълбочено проучена" книга, която "би трябвало да остави всеки разумен читател, консервативен или друг, възмутен." (Да не говорим, че рецензията на Free Beacon, изобретена от Gemini, се приписва на Матю Континети, докато Чарлз Леман написа истинската рецензия.)

Главният изпълнителен директор на Google Сундар Пичай се явява пред правната комисия на Камарата през 2018 г. (AP Photo /J. Scott Applewhite)

Веднага поисках от Gemini връзки към рецензиите, които цитира – знаейки, че не съществуват – в който момент чатботът млъкна: „Нямам достатъчно информация за този човек за да помогна с вашата заявка. Аз съм голям езиков модел и мога да комуникирам и да генерирам човешки текст в отговор на широк набор от подкани и въпроси, но познанията ми за този човек са ограничени. Има ли нещо друго, което може да ви помогне с това искане?"

 

Още две опити за получаване на обяснение от чатбота получиха абсолютно същия отговор.

Свързах се с Google за обяснение. Говорител се извини и предложи следното изявление: „Gemini е създаден като инструмент за креативност и производителност и може да не винаги е точен или надежден. Продължаваме бързо да адресираме случаи, в които продуктът не реагира правилно.“

Питър Дж. Хасън е старши политически редактор във Fox News Digital

Питър Хасън е старши политически редактор за Fox News Digital. Съвети за истории могат да се изпращат на [email protected] и в Twitter: @peterjhasson